「TikTok」によるムービー検閲の理由は「魅力的ではないムービーは新規ユーザーの短期定着率を下げるから」

モバイル向けショートムービープラットフォーム「TikTok」は世界で何億人ものユーザーを獲得しているという人気サービスです。そんなTikTokが「容姿が劣る」「貧乏」「身体障害者」などのユーザーの投稿を目に付きにくいようにしていたという問題について、ニュースサイトThe Interceptが具体的な内部ガイドラインだけでなく、そのガイドラインに記された「ムービー検閲の理由」についても明らかにしています。

TikTok Told Moderators: Suppress Posts by the “Ugly” and Poor
https://theintercept.com/2020/03/16/tiktok-app-moderators-users-discrimination/

2019年12月、ドイツのニュースメディアnetzpolitik.orgが、「顔面を欠損している」「ダウン症」などの対象を映した投稿だけでなく、「身体障害者」や「同性愛者」とプロフィールに登録しているユーザーの投稿は他のユーザーから見つかりにくくなるという操作されていると明らかにしました。

動画共有アプリ「TikTok」が障がいを持つ人やレズビアン・ゲイによる投稿のリーチを制限していた - GIGAZINE

今回、The Interceptが入手した内部文書は、TikTok内のコンテンツが規約違反かどうかなどをチェックする「モデレーター」と呼ばれるスタッフに配布されたガイドライン。内容からみるにnetzpolitik.orgのソースとほぼ同じものであると考えられます。「New rules」の項を見ると、「通常ではない体型、ぽっちゃり、明らかなビール腹、太りすぎ、ないしは痩せすぎ(例：小人症や先端巨大症など)」「醜い顔(例：牙、前歯の欠損、シワの多すぎる老人、顔の傷跡など)、ないし顔部の奇形(例：眼疾患、歯列不正、及びその他の身体障害)」「老朽化した家屋、建築現場などのみすぼらしい撮影環境(例：スラム、荒廃した地区など。ただし荒廃してても自然美が感じられる場合は例外)。撮影されている人物が貧乏でなくとも壁に亀裂が入っていたり、壁に落書きが描かれていたり、極端に汚れていたり、片付いていない場合」が挙げられています。これらのルールに抵触する投稿は、TikTokの「For you(オススメ)」カテゴリから除外されるようにモデレーターによって操作が行われます。

Ugly Content Policy - The Intercept
https://theintercept.com/document/2020/03/16/ugly-content-policy/

「Reason」の項を見ると、この操作は「魅力的ではない投稿は新規ユーザーの短期定着率を減少させる」という論理によって正当化されています。ムービー中に登場する人物や風景などの要素は特に重要視されており、「魅力的でない人物や撮影環境の場合、当該ムービーの魅力は少なくなる。そして、新規ユーザーに推奨するべきではない」と記されています。The Interceptは「新規ユーザーを引きつけ、保持して他のアプリに打ち勝つということを目的に、この種の行為を正当化しています」と指摘しています。

以上のような処置に加えて、The Interceptは規制対象にあたる具体的な行為を記したガイドラインも公開しています。

TikTok Live Policy - The Intercept
https://theintercept.com/document/2020/03/16/tiktok-live-policy/

このポリシーでは、13の異なるカテゴリに渡って64の違反行為が記載されています。「18歳未満ユーザーのポルノ」「18歳未満が銃を扱う行為」「18歳未満の喫煙、飲酒」などの制定理由が自明であるものもあれば、「意図的に中指を突き立てる行為を2度する」などの制定理由が不明瞭なものも含まれています。また、「国家の団結を崩壊させる」という行為に関しては、明確な定義が記載されていません。

以前からTikTokは中国の言論統制を強めるためのツールとして利用されていると指摘されてきました。TikTokが行っている天安門広場、チベット独立、法輪功などについての政治的な検閲に関しては、以下の記事で詳しく解説しています。

TikTokはどうやって投稿される無数のコンテンツを検閲してきたのか？ - GIGAZINE

The Interceptが入手したガイドラインは2019年に作成され、2019年後期まで使用されたものとのこと。TikTokを運営する中国のByteDanceが元となるガイドラインを作成しましたが、グローバルオフィスで使用するために英語に翻訳されたものをThe Interceptは入手したと語っています。

The Interceptはこのようなガイドラインの存在について、「TikTokにおいて、ルールの詳細は秘匿化されているため、仮にアカウント削除などの処置がされても満足のいく説明が行われることはありません。一般的なソーシャルネットワークにおいて公開されている『コミュニティガイドライン』の背後には、モデレーターなどが実際に処置を取り決める上で参照するルールが存在します。モデレーターの雇用は流動的であるため、ポリシーの変更を突然通知されることが通例です」とコメントしました。

また、The Interceptによると、魅力的ではないユーザーの投稿を抑制する戦略とは逆に、魅力的なユーザーの投稿を促進する戦略も実行していたとのこと。TikTokのモデレーターの1人は、「インフルエンサーや公式コンテンツクリエーターとの定期的なビデオ会議を実施して、新しいコンテンツポリシーなどに抵触しないように指導を行い、規約に違反する可能性を減らしていた」とThe Interceptに述べたとのこと。

TikTokの広報担当者であるジョシュ・ガートナー氏は、魅力的ではない人物・撮影環境の投稿に対する処置は「いじめを防ぐための初期の試み」を反映したものだとコメント。これについてThe Interceptは「ガートナー氏はこのガイドラインがどのようにしていじめを防ぐのかを説明しなかったし、魅力的なユーザーに対する処置をどのように正当化するのかについても説明しなかった」と非難しました。

なお、The Interceptは情報源について、法的な報復に対する危惧ゆえに匿名を求めたと記しています。